第四章 神の目を作った研究者
巨大なデータセンターの排熱は、どこか生き物の吐息に似ている。私はサーバーラックの重厚な列を歩きながら、自分が何を「実装」してしまったのかを反芻していた。
「これはＡＩではない。神の網膜（リフレクター）だ」
〈彼〉が私の研究室を訪れた際、そう言ったのを覚えている。当時の私は、世界最高精度の行動予測モデルを構築していた。カメラに映る人間の歩行速度、視線の動き、微細な筋肉の収縮から、その人物が次に何をするかを、本人よりも先に当てるシステムだ。
「予測ではありません。これはあくまで確率論に基づいた推論です」
私は科学者として、毅然とそう答えた。すると〈彼〉は、私のモニターを指差して、影を孕んだ笑みを浮かべた。
「その推論に、全人類が従うとしたら？ 確率が100パーセントに収束した瞬間、それは予言になる。判断を委ねられた瞬間、その機械は神になるんだ」
私は当時、その言葉を詩的な比喩だと聞き流していた。だが、開発が進むにつれ、その意味を骨の髄まで理解することになった。
〈彼〉は、私のシステムに「裁定」ではなく「観測」の役割を与えた。ＡＩが犯罪を未然に防ぐのではない。ＡＩが「すべてを見ている」という事実を、ネットワークを介して人々の脳内に常駐させる。誰かが悪意を抱いた瞬間、街角の「青いランプ」がわずかに光る。ただそれだけで、人は自らの意志でその悪意を摘み取るようになる。
私は神話のエンジニアだった。全知全能とは、物理的な力のことではない。「逃れられない視線」のことだ。ある時、システムが深刻なエラーを吐き出した。ある特定の集落で、幸福度が異常なほど低下したのだ。原因を調査した結果、判明したのは「プライバシーの喪失によるストレス」ではなかった。
逆だった。
システムの不具合でその地域のカメラが一晩停止した際、住民たちが「見守られていない」というパニックに陥り、発狂したのだ。
私は震える手で報告書を〈彼〉に届けた。
「先生、これは依存です。人々は、自分で自分の背中を見ることができなくなっている。このままでは人間が壊れます。止めるべきだ」
〈彼〉は報告書を一瞥もしなかった。
代わりに、暗い部屋の隅で、稼働し続けるサーバーの青い光を見つめていた。
「止めない。それは進化だ。人間は、自分の責任を背負い続けるにはあまりに脆弱すぎた。鏡がなければ、自分の顔さえ分からないのが人間だ。私はただ、最高に精緻な鏡を彼らに与えたに過ぎない」
その時、私は気づいた。
〈彼〉は、このシステムが人々を幸福にすると信じているわけではない。ただ、人間という不完全な生物を、この「神の目」という巨大な揺り籠に閉じ込め、二度と過ちを犯さない標本にしようとしているのだ。
現在、私が設計したAIは、世界の全トラフィックを統治している。誰が誰を愛し、誰が何を欲しているか。すべては計算され、最適化された未来へと誘導される。
私は今でも時折、センターの最深部へ行く。そこには、どの端末とも繋がっていない、〈彼〉だけがアクセス権を持つ隠しディレクトリがある。一度だけ中を覗いたことがある。そこにあったのは膨大なログでも教義でもなかった。
ただ一つの、短い実行コード。
Is anybody watching me?（誰かが私を見ているか？）
神の目を作らされた私は、今になって思う。世界を観測する巨大なシステムを構築しながら、〈彼〉自身は、たった一人の「誰か」に見つけてほしかったのではないか。全人類の視線を一身に集めながら、その実、彼は誰からも見られていないという孤独に、押し潰されそうになっていたのではないか。
（つづく）
コメント